When Does Model Collapse Occur in Structured Interactive Learning?
结构化交互学习中模型崩溃何时发生?
🧭 多模型交互下的训练稳定性分析
用有向图建模多模型交互,给出避免模型崩溃的图拓扑充要条件及有限样本保证
📌 工作参考价值(4 点)
- 多模型协同训练(如多智能体、GAN、互蒸馏)时,可借鉴有向图刻画信息流,识别会导致崩溃的循环依赖或吸收结构,主动打断有害反馈回路。
- 在推荐系统中用合成数据(如负样本生成、数据增强)时,可通过限制模型交互次数或引入新鲜真实数据比例,防止性能退化。
- 对于多智能体强化学习中的自博弈,可基于交互图设计经验回放池的采样策略,避免分布塌陷。
- 生成式推荐中若多个模型相互提供知识,可构建类似拓扑并监控误差传播,设定安全更新频率阈值。